1
Lanskap AI Generatif Lanjutan
PolyU COMP5511Lesson 11
00:00

Lanskap dari AI Generatif Lanjutan telah berkembang dari model terisolasi dan monolitik menjadi ekosistem berlapis-lapis yang didefinisikan oleh Sistem AI Komposit. Perubahan ini bergerak menjauh dari prediksi token probabilitas sederhana menuju sistem yang mengatur model dasar (FMs), plugin modular, dan sintesis lintas moda.

Infrastruktur Komputasi / CloudLLMsDiffusiAudio / KodeLapisan Orkestrasi & Agensial

Taksonomi Tata Letak Generatif

  • Lapisan Infrastruktur: Tulang punggung perangkat keras (GPU/TPU) dan layanan cloud yang menyediakan komputasi besar yang dibutuhkan untuk pelatihan dan inferensi berkecepatan tinggi.
  • Lapisan Model: Model Dasar (FMs) seperti GPT-4, Llama 3, dan Stable Diffusion yang berfungsi sebagai mesin khusus untuk modus yang berbeda.
  • Lapisan Orkestrasi: Kerangka kerja yang mengelola logika, alur data, dan pengambilan data, mengubah model dari bobot "membeku" menjadi sistem dengan Kesadaran Kontekstual Real-Time.

Kemungkinan Konvergensi Moda

Tren teknis berfokus pada menyatukan arsitekturโ€”terutama model Transformer dan Diffusiโ€”yang memungkinkan ruang laten bersama. Ini memungkinkan antarmuka terpadu tunggal di mana teks, gambar, dan video dimanipulasi sebagai aliran informasi yang kontinu, direpresentasikan secara matematis sebagai pemetaan antara manifold laten yang berbeda $M_{text} \leftrightarrow M_{visual}$.

Evolusi Struktural
Kita sedang berpindah dari model "Buku Tertutup" yang hanya bergantung pada parameter data pelatihan $\theta$, ke sistem "Buku Terbuka" yang menggunakan status lingkungan eksternal $E$ untuk menyelesaikan tugas penalaran kompleks melalui $P(y|x, E)$.
Implementasi Python